1932 yılında Hasankale'nin Alvar köyünde doğdu. Asıl adı Yaşar Yılmaz'dır. İran'dan göçen babası önce Kars'a daha sonra Erzurum'a yerleşti. Aşık Reyhani'nin çocukluğu köyünde geçti. Zaman zaman komşu köylere gitme olanağı bulduysa da daha başka yerlere gidemedi. Okuma yazmayı okula gitmeden öğrendi. Sonraki yıllarda ise dışarıdan sınava girerek diploma aldı. Küçük yaşlarda köyüne gelen aşıklardan etkilendi. Hem aşıklardan dinleyerek hem de eline geçen kitapları okuyarak birçok halk hikayesini öğrendi. Kendi aşıklığı ve şiir yazmaya başlaması 18 yaşından sonradır. Reyhani, rüyasında gördü bir kıza aşık oldu. Kısa bir süre sonra da kızı kaçırdı. Birkaç ay geçmeden evliliği geçimsizliğe ve huzursuzluğa dönüştü. Bunun üzerine karısının ailesi kızlarını alarak başka biriyle evlendirdiler. Aşık Reyhani, bu dönemden sonra Dertli mahlasıyla şiirler yazmaya, türkü söylemeye başladı. Ancak bu mahlası uzun süre kullanmadan, Bayburtlu Aşık Hicrani tarafından Reyhani mahlası verildi.
